Đảng Section Française de l'Internationale Ouvrière - SFIO (Chi bộ Pháp của Quốc tế Công nhân, tiền thân của Đảng Xã hội Pháp ngày nay) đã cho thành lập Chi nhánh Trung Bắc Kỳ và đặt trụ sở tại Hà Nội vào tháng 1 năm 1926. Lúc đầu chi nhánh chỉ gồm đảng viên người Pháp. Sau khi Mặt trận Bình dân (do liên minh cánh tả trong đó có đảng này thành lập) thắng cử tại Pháp, SFIO đã chủ trương cho chi nhánh Bắc Đông Dương kết nạp thêm cả người Việt[22]. Phan Thanh là một trong những người Việt đầu tiên tham gia và nhanh chóng trở thành một đảng viên uy tín. Tháng 7 năm 1938, tại Đại hội lần thứ hai SFIO, ông được cử làm Phó Thư ký Chi nhánh Bắc Đông Dương, đồng thời được bầu làm Thư ký Chi đảng Hà Nội[7].

Năm 1938, ông là một trong những đại diện của SFIO, phối hợp cùng với nhóm Tin tức (cơ quan ngôn luận công khai của Đảng Cộng sản Đông Dương), tổ chức thành công buổi kỷ niệm ngày Quốc tế Lao động 1 tháng 5 tại Nhà Đấu xảo Hà Nội với gần 2,5 vạn người tham gia[23]. Trong năm đó, nhóm Tin tức muốn đề nghị cùng SFIO thành lập một "ban hành động chung". Theo tài liệu mật thám ngày 19 tháng 5 năm 1938, việc này đã không nhận được sự đồng tình của nhiều thành viên, duy chỉ có Louis Caput (thư ký chi nhánh Bắc Đông Dương) và Phan Thanh là tán thành[24]. Được hai người thuyết phục, Ban chính trị SFIO đã đồng ý thành lập "Ban liên lạc giữa Chi nhánh Đảng SFIO, nhóm Tin tức và tất cả các hội ái hữu lao động", thỏa thuận hành động chung về những vấn đề cụ thể khi cần thiết.

Dưới tư cách đảng viên Đảng Xã hội, Phan Thanh đã tham gia nhiều hoạt động, trong đó có việc cứu trợ những phụ nữ, trẻ em Trung Hoa - nạn nhân cuộc chiến tranh xâm lược của Nhật Bản - vào tháng 12 năm 1938[25]; tham gia phát hành báo Demain (Ngày mai), cơ quan ngôn luận của chi nhánh SFIO (ra mắt tháng 11 năm 1938)[21]; đề xuất thành lập tổ chức Đoàn Thanh niên Xã hội[26]. Sau khi chính quyền thực dân triển khai việc đàn áp các nhân vật đấu tranh dân chủ, theo tài liệu mật thám Pháp, tại hội nghị chi đảng SFIO vào tháng 3 năm 1939, Phan Thanh đã được giao nhiệm vụ chủ trì việc hoàn chỉnh hồ sơ về "tình hình đàn áp khủng bố ở Đông Dương", thông qua Caput mang về Pháp để gửi đến các cơ quan của Đảng Cộng sản Pháp và các đảng Xã hội, qua đó "gây một phong trào phản kháng ngay tại chính quốc"[27].

Theo Nguyễn Đình An, việc Phan Thanh gia nhập Đảng Xã hội Pháp là nhằm tạo vị thế hợp pháp, nâng cao uy tín và mở rộng các mối quan hệ, đảm bảo cho các hoạt động vì dân chủ, dân sinh công khai của ông[23]. Hoạt động trong Đảng Xã hội, Phan Thanh đã có nhiều cơ hội tiếp xúc và hợp tác với những người cộng sản, đảm nhận vai trò "cầu nối vững chắc giữa những người Xã hội, những người Cộng sản và dân chúng cần lao"[28][29].